Ferill 365. máls. Aðrar útgáfur af skjalinu: PDF - Word Perfect.
154. löggjafarþing 2023–2024.
Þingskjal 513 — 365. mál.
Svar
menningar- og viðskiptaráðherra við fyrirspurn frá Indriða Inga Stefánssyni um myndefni gervigreindar.
1. Telur ráðherra að núverandi reglugerðarheimildir séu fullnægjandi til að takast á við hættuna sem því fylgir þegar gervigreind útbýr myndefni sem sýnir persónu einstaklinga í aðstæðum eða aðgerðum sem ekki eiga sér stoð í raunveruleikanum?
Djúpfölsuð myndskeið, fölsuð myndbönd sem gerð eru með gervigreindartækni í þeim tilgangi að hafa skoðanamótandi áhrif á áhorfendur, eru áhyggjuefni líkt og annars konar upplýsingaóreiða. Upplýsingaóreiða og dreifing ýmissa samsæriskenninga hefur enda þann tilgang að grafa m.a. undan trausti á stjórnmálum, fjölmiðlum og stofnunum samfélagsins. Upplýsingaóreiða hefur áhrif á getu almennings til að afla sér réttra upplýsinga sem varðamuni hans. Íslensk stjórnvöld fylgjast náið með þróun slíkra mála og viðbrögðum við þeim, m.a. á vettvangi fjölmiðlanefndar.
Hér á landi eru samkvæmt núgildandi lögum ekki í gildi sérstakar reglur um „djúpfalsanir“, þ.e. þegar gervigreind útbýr myndefni sem sýnir einstaklinga í aðstæðum eða aðgerðum sem eiga sér ekki stoð í raunveruleikanum. Sem stendur er því eingöngu unnt að bregðast við djúpfölsunum með því að beina kvörtunum til samfélagsmiðla þegar vart verður við slíkar myndbirtingar. Í alvarlegum tilvikum, t.d. þegar djúpfalsað myndband felur í sér stafrænt kynferðisofbeldi, þarf að leita til lögreglu. Lögregla hefur ekki leiðir til að fjarlægja myndböndin sjálf en hefur að eigin sögn beinan aðgang að öllum helstu samfélagsmiðlum til að fara fram á að það verði gert.
Ein árangursríkasta leiðin til að bregðast við upplýsingaóreiðu er að efla vitund, fræðslu og þjálfun almennings á sviði miðla- og upplýsingalæsis. Þetta er eitt helsta hlutverk fjölmiðlanefndar sem heyrir undir menningar- og viðskiptaráðherra. Má til að mynda nefna að sérstök upplýsinga- og miðlalæsisvika var haldin á vegum nefndarinnar hér á landi í fyrsta skipti í febrúar sl. þar sem gefið var út fræðsluefni fyrir grunnskóla með það að markmiði að auka upplýsinga- og miðlalæsi barna.
Í aðildarríkjum Evrópusambandsins tóku reglur um nýjar skyldur tæknifyrirtækja gildi í nóvember 2022 með reglugerð um stafræna þjónustu, Digital Services Act (DSA). DSA hefur að geyma reglur sem taka m.a. til 19 stærstu samfélagsmiðla og leitarvéla heims. Þeirra á meðal eru samfélagsmiðlarnir Facebook, Instagram og TikTok og leitarvélin Google. Komu reglurnar til framkvæmda gagnvart þessum miðlum í lok ágúst á þessu ári. Samkvæmt DSA er þessum og fleiri fyrirtækjum nú m.a. skylt að framkvæma reglubundið áhættumat til að vinna gegn skipulögðum upplýsingaóreiðuherferðum, t.d. í tengslum við kosningar eða stríð. Þá eiga fyrirtækin að gera notendum kleift að tilkynna um ólögmætt efni. Útnefndir verða „viðurkenndir tilkynnendur“ í hverju aðildarríki, t.d. lögregla, og tilkynningar um ólögmætt efni frá slíkum aðilum fá flýtimeðferð.
DSA tengist starfsreglum stærstu tæknifyrirtækja heims og Evrópusambandsins, The Code of Practice on Disinformation, sem settar voru 2018 og endurskoðaðar árið 2022. Með þeim skuldbundu tæknifyrirtækin sig til að grípa til aðgerða gegn djúpfölsunum sem settar eru fram gagngert í þeim tilgangi að valda tjóni. Facebook bannaði t.d. slíkar djúpfalsanir á miðlum sínum árið 2020 en djúpfalsanir í skopstælingartilgangi eru heimilar, með vísan til tjáningarfrelsis.
Unnið er að upptöku DSA-reglugerðarinnar í EES-samninginn á vettvangi EFTA. Í kjölfarið verður gerðin innleidd í íslenskan rétt. Þegar til þess kemur verður mikilvægur hluti af verkefnum innlendra eftirlitsaðila að fylgja eftir formlegum kvörtunum notenda vegna brota tæknirisa á reglum DSA og tryggja að slík brot komi til skoðunar hjá framkvæmdastjórn ESB.
Einnig má nefna að á vettvangi Evrópusambandsins er unnið að regluverki um gervigreind, AI Act, en þar er fjallað um efni sem búið er til af gervigreind og kveðið á um að allt slíkt efni beri að merkja. Innan Stjórnarráðsins heyrir stafræn þróun og gervigreind, þ.m.t. innleiðing AI Act, undir háskóla-, iðnaðar- og nýsköpunarráðuneytið.
2. Ef svo er, hyggst ráðherra nýta slíkar heimildir til að tryggja m.a. heilindi kosninga og persónu einstaklinga sem kunna að verða fyrir slíkri myndbirtingu?
Heilindi kosninga eru ekki á forræði menningar- og viðskiptaráðherra. Eins og fram kemur í svari við 1. tölul. fyrirspurnarinnar heyrir stafræn þróun og gervigreind undir háskóla-, iðnaðar- og nýsköpunarráðuneytið. Málefni persónuréttar og persónuverndar, auk kosninga, heyra undir dómsmálaráðuneytið.
3. Ef ekki, hyggst ráðherra beita sér fyrir því að slíkar heimildir verði veittar?
Vísað er til svars við 2. tölul. fyrirspurnarinnar.
